Tổ chức của Bộ Quốc phòng Nhật Bản được quy định tại Bộ Luật Xây dựng Quốc phòng năm 1954 của Quốc hội Nhật Bản[5] và Pháp lệnh Tổ chức Quốc phòng năm 1954 [6] và được quy định cụ thể chi tiết hơn tại Luật Phòng vệ cho các tổ chức của Quốc phòng ngày 9/6/1954[7], Luật thi hành Pháp lệnh của Lực lượng Phòng vệ[8] và Luật Quy định thực thi đối với Lực lượng Phòng vệ do Thủ tướng Nhật Bản ký ban hành.[9]

Điều hành

• Bộ trưởng Bộ Quốc phòng;
• Thứ trưởng Bộ Quốc phòng là Nghị sĩ cao cấp;
• Thứ trưởng Bộ Quốc phòng là Nghị sĩ;
• Thứ trưởng Bộ Quốc phòng phụ trách Quản lý hành chính;
• Cố vấn cao cấp cho Bộ trưởng Bộ Quốc phòng;
• Thư ký riêng cho Bộ trưởng Bộ Quốc phòng.

Nội bộ Bộ cục (内部部局)

• Đại thần Quan phòng (大臣官房, Đại thần Quan phòng?)
• Cục Chính sách Phòng vệ (防衛政策局, Cục Chính sách Phòng vệ?)
• Cục Giáo dục Nhân sự (人事教育局, Cục Giáo dục Nhân sự?)
• Cục Kế hoạch Chỉnh bị (整備計画局, Cục Kế hoạch Chỉnh bị?)
• Cục Xí hoạch Địa phương (地方企画局, Cục Xí hoạch Địa phương?)

Thẩm nghị Hội đẳng (審議会等)

• Hội Thẩm tra Luân lý Đội viên Tự vệ (自衛隊員倫理審査会, Hội Thẩm tra Luân lý Đội viên Tự vệ?)
• Hội Thẩm nghị Trung ương về Cơ sở Phòng vệ (防衛施設中央審議会, Hội Thẩm nghị Trung ương về Cơ sở Phòng vệ?)
• Hội Thẩm nghị Nhân sự Phòng vệ (防衛人事審議会, Hội Thẩm nghị Nhân sự Phòng vệ?)
• Hội Đẳng thẩm tra Nhận định Tư cách Tù nhân chiến tranh (捕虜資格認定等審査会, Hội Đẳng thẩm tra Nhận định Tư cách Tù nhân chiến tranh?)

Thi thiết đẳng Cơ quan (施設等機関)

• Học viện Phòng vệ (防衛大学校)
• Đại học Y khoa Phòng vệ (防衛医科大学校, Đại học Y khoa Phòng vệ?)
• Sở Nghiên cứu Phòng vệ (防衛研究所, Sở Nghiên cứu Phòng vệ?)

Các cơ quan đặc biệt (特別の機関)

• Hội nghị Phòng vệ (防衛会議, Hội nghị Phòng vệ?)
• Bộ Tổng tham mưu (統合幕僚監部 (Thống hợp mán liêu Giám bộ), Bộ Tổng tham mưu?)
  • Cao đẳng Tham mưu (統合幕僚学校 (Thống hợp mán liêu Học hiệu), Cao đẳng Tham mưu?)
• Văn phòng Tham mưu Mặt đất (陸上幕僚監部 (Lục Thượng mán liêu Giám bộ), Văn phòng Tham mưu Mặt đất?)
• Văn phòng Tham mưu Biển (海上幕僚監部 (Hải Thượng mán liêu Giám bộ), Văn phòng Tham mưu Biển?)
• Văn phòng Tham mưu Trên không (航空幕僚監部 (Hàng không Mán liêu Giám bộ), Văn phòng Tham mưu Trên không?)
• Tình báo Bản bộ (情報本部, Tình báo Bản bộ?)
• Bản bộ Giám sát Phòng vệ (防衛監察本部, Bản bộ Giám sát Phòng vệ?)
• Toà án Quân sự Ngoại quốc (外国軍用品審判所 (Ngoại quốc Quân dụng phẩm Thẩm phán sở), Toà án Quân sự Ngoại quốc?)

Bộ Tổng Tham mưu

• Tổng Tham mưu trưởng: Đại tướng Yoshida Yoshihide
• Phó Tổng Tham mưu trưởng
• Sở Nội vụ (J-1)
• Cục Đầu tư (J-3)
• Cục Hậu cần (J-4)
• Cục Kế hoạch (J-5)
• Vụ Hệ thống C4 (J-6)

Lực lượng Phòng vệ Mặt đất

• Tham mưu trưởng: Đại tướng
• Tham mưu phó: Trung tướng

Lực lượng Phòng vệ Biển

• Tham mưu trưởng: Đô đốc
• Tham mưu phó: Phó Đô đốc

Lực lượng Phòng vệ Trên không

• Tham mưu trưởng: Đại tướng
• Tham mưu phó: Trung tướng

Cơ quan trực thuộc khác

• Cơ quan Tình báo Quốc phòng
• Cơ quan Hậu cần Kỹ thuật Quốc phòng
• Văn phòng Mua sắm Trang thiết bị và xây dựng
• Văn phòng Tổng Thanh tra Quốc phòng
• Ủy ban độc lập Quản lý Thuế và tổ chức hành chính
• Hội đồng Quốc phòng
• Hội đồng Kỷ luật Quốc phòng
• Hội đồng Mua sắm Quốc phòng

Đơn vị theo ngành dọc

• Hệ thống Lực lượng Dân quân Tự vệ
• Bệnh viện Khu vực của Lực lượng Phòng vệ